Это универсальность линейности возможно, самый мощный способ в теории вероятностей. Он позволяет вычислить математическое ожидание суммы случайных величин, просто суммируя их индивидуальные математические ожидания — независимо от того, являются ли эти переменные независимыми, коррелированными или взаимоисключающими.
1. Основы и утверждение 2.1
Чтобы понять, почему математическое ожидание ведёт себя так линейно, мы рассматриваем закон неосознанного статистика (LOTUS) для многомерных систем. Утверждение 2.1 гласит, что если $X$ и $Y$ имеют совместную функцию массы вероятности $p(x, y)$, то математическое ожидание любой функции $g(X, Y)$ равно:
$$E[g(X, Y)] = \sum_{y} \sum_{x} g(x, y) p(x, y)$$
Для непрерывных переменных с совместной плотностью вероятности $f(x, y)$ эквивалентная интегральная форма:
$$E[g(X, Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f(x, y) dx dy$$
2. Принцип линейности
Применяя LOTUS к функции $g(X, Y) = X + Y$, мы выводим центральную теорему этого урока: $E[X + Y] = E[X] + E[Y]$. Это естественным образом распространяется на любое конечное множество:
$E\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n E[X_i]$
Это «универсально», потому что не требует никаких предположений о совместном распределении. Независимо от того, являются ли переменные независимыми или сильно зависимыми, среднее значение суммы равно сумме средних значений.
Пример 2а: Задача про скорую помощь
Рассмотрим аварию в точке $X$ на дороге длины $L$ и скорую помощь в точке $Y$, где $X, Y \sim U(0, L)$ и независимы. Используя многомерный закон неосознанного статистика для нахождения $E[|X-Y|]$:
Совместная плотность вероятности равна $f(x, y) = 1/L^2$ при $0 \le x, y \le L$.
$$E[|X-Y|] = \int_0^L \int_0^L |x-y| \frac{1}{L^2} dx dy = \frac{L}{3}$$
3. Монотонность и границы
Математическое ожидание сохраняет порядок случайных величин. Если $X \ge Y$ для всех исходов, то $E[X] \ge E[Y]$. Это следует из примера 2б: если $X - Y \ge 0$, то $E[X - Y] \ge 0$. Более того, если переменная ограничена так, что $P\{a \le X \le b\} = 1$, то следует, что $a \le E[X] \le b$.
4. Выборочное среднее (пример 2в)
Пусть $X_1, \dots, X_n$ — выборка из распределения с математическим ожиданием $\mu$. Выборочное среднее выборочное среднее определяется как:
$$\bar{X} = \sum_{i=1}^{n} \frac{X_i}{n}$$
Благодаря линейности, $E[\bar{X}] = \frac{1}{n} \sum E[X_i] = \frac{n\mu}{n} = \mu$. Ожидаемое значение выборочного среднего равно $\mu$, что доказывает его несмещенность.
- все $X_i$ — неотрицательные случайные величины.
- ряд абсолютно сходится: $\sum_{i=1}^\infty E[|X_i|] < \infty$.